3.AI Popular Framework
AI Popular Framework模块构建了涵盖4大核心框架的AI应用开发技术生态,为开发者提供从原型到生产的完整技术栈指南。该模块深度整合了LangChain多模态应用开发框架、LangGraph状态机工作流编排、LlamaIndex数据框架与检索增强、字节Eino大模型应用框架等业界标杆技术,覆盖了从简单聊天机器人到复杂AI智能体的全场景开发需求。技术栈包含了LangChain完整教程体系(官方文档、中文教程、实战案例)、LangGraph Agent构建与工作流设计、LlamaIndex RAG应用与数据连接器、Eino字节跳动生产级框架等专业组件,以及丰富的学习资源和实践指导。
模块深度集成了多模态数据处理、状态管理与持久化、检索增强生成、工作流编排、智能体协作等核心技术,支持复杂业务逻辑实现、多轮对话管理、外部工具集成、实时数据处理等高级功能。此外,还提供了LangChain生态系统深度解析、LangGraph可视化调试工具、LlamaIndex企业级部署方案、Eino生产环境最佳实践等技术指导,以及金融智能客服、医疗诊断助手、教育个性化辅导、制造业质量检测等行业应用案例,帮助开发者快速掌握主流AI框架,构建高质量、可扩展的人工智能应用系统,实现从概念验证到商业化部署的技术跃升。
- 3.1 langchain教学
- 3.1 langchain教学/langchain-hub
- 3.1 langchain教学/langfuse
- 3.2 LangGraph
- 3.3 LlamaIndex
- 3.4.字节Eino大模型框架
===============================================================================
3.1 langchain教学
- 必看awesome-langchain: 😎 Awesome list of tools and projects with the awesome LangChain framework
- LangChain Python 中文文档教程 | 🦜️🔗 Langchain
- langchain-ai/langchain: 🦜🔗 Build context-aware reasoning applications
- Introduction | 🦜️🔗 LangChain v0.3
- Langchain0.2
- Introduction | 🦜️🔗 Langchain
- LangChain-Chinese-Getting-Started-Guide: LangChain 的中文入门教程
- langchain-tutorials: Overview and tutorial of the LangChain Library
------------------------------------------------------------
langchain-hub
简介
LangChain Hub受Hugging Face Hub启发,是一个用于LangChain原语(如提示、链和代理)的社区中心。它提供了一个平台,让用户可以探索和贡献各种类型的提示、链和代理,以构建复杂的大语言模型应用程序。该平台支持多种语言模型和语言,涵盖了分类、代码编写、总结等多种应用场景。核心功能
- 资源共享:用户可在平台上分享和发现高质量的提示、链和代理。
- 资源加载:提供代码片段,方便在LangChain中加载提示、链和代理。
- 多类型支持:支持多种语言模型和语言,覆盖多种应用场景。
技术原理
LangChain Hub基于LangChain框架,通过将提示、链和代理等资源以标准化的文件格式存储在平台上,用户可以使用特定的代码片段从平台加载这些资源到自己的LangChain应用程序中。平台利用GitHub进行版本控制和社区协作。应用场景
- 大语言模型开发:开发者可以利用平台上的资源快速构建复杂的大语言模型应用程序。
- 自然语言处理:在文本分类、代码编写、总结等自然语言处理任务中使用平台上的提示和链。
- 教育和研究:为教育和研究人员提供了一个学习和分享大语言模型应用的平台。
- LangSmith-LangChain Hub
- hwchase17/langchain-hub
------------------------------------------------------------
langfuse
简介
Langfuse 是一个开源的大语言模型(LLM)工程平台,可助力团队协作开发、监控、评估和调试 AI 应用程序,支持自托管,且经过实战检验。核心功能
- 大语言模型应用可观测性:跟踪 LLM 调用及应用中的其他相关逻辑,检查和调试复杂日志与用户会话。
- 提示管理:集中管理、版本控制和协作迭代提示,减少应用延迟。
- 评估:支持多种评估方式,适应不同开发需求。
- 数据集:创建测试集和基准,支持持续改进、预部署测试等。
- 大语言模型 playground:测试和迭代提示与模型配置,加速开发。
- 综合 API:提供 OpenAPI 规范、Postman 集合和多种语言的 SDK。
应用场景
- 大语言模型应用开发:帮助开发者监控、评估和调试应用。
- 提示工程:集中管理和迭代提示。
- 实验与评估:使用数据集进行测试和基准评估。
- 定制化 LLMOps 工作流:通过 API 构建定制化流程。
- langfuse/langfuse: 🪢 Open source LLM engineering platform: LLM Observability, metrics, evals, prompt management, playground, datasets. Integrates with LlamaIndex, Langchain, OpenAI SDK, LiteLLM, and more. 🍊YC W23
------------------------------------------------------------
3.2 LangGraph
简介
LangGraph 是一个用于构建、管理和部署长期运行的有状态代理的低级编排框架,受 Klarna、Replit、Elastic 等公司信赖。它不抽象提示或架构,可独立使用,也能与 LangChain 产品无缝集成,提供了耐用执行、人在环、综合内存、调试和生产部署等核心优势。相关资源包括指南、参考文档、示例、课程、模板和案例研究等。核心功能
- 耐用执行:构建能从故障中恢复并自动从断点继续运行的代理。
- 人在环:在执行过程中可随时检查和修改代理状态,实现人工监督。
- 综合内存:创建具有短期工作记忆和长期持久记忆的有状态代理。
- 调试:借助 LangSmith 的可视化工具深入了解复杂代理行为。
- 生产部署:使用可扩展基础设施部署复杂代理系统。
技术原理
LangGraph 受 Pregel 和 Apache Beam 启发,公共接口借鉴了 NetworkX。它通过状态图(StateGraph)来定义代理节点和边,利用预构建组件创建代理,结合大语言模型(如 Anthropic、OpenAI 模型)和工具(如 SerpAPIWrapper、TavilySearchResults 等),实现任务的路由和执行。应用场景
- 多代理网络架构:为每个任务或领域创建专门代理,通过“分而治之”处理复杂任务。
- 定制化代理运行时:利用 LangGraph 定制代理运行时,满足特定业务需求。
- 长期有状态工作流:适用于需要长期运行和状态管理的工作流,如持续监控、自动化任务等。
- 🦜🕸️LangGraph
- langchain-ai/langgraph
- LangChain-Tutorials/langgraphnodesedges.ipynb at main · sugarforever/LangChain-Tutorials
- LangGragh
- langchain-ai/langgraph: Build resilient language agents as graphs.
------------------------------------------------------------
3.3 LlamaIndex
简介
LlamaIndex 是用于构建由大语言模型(LLM)驱动的智能体的领先框架。它作为数据框架,提供数据连接器来摄取各类数据源和格式,能对数据进行结构化处理,拥有高级检索/查询接口,并可与外部应用框架轻松集成。该框架为初学者和高级用户都提供了相应工具,支持 Python 和 TypeScript,还有相关的云服务 LlamaCloud 及社区资源。核心功能
- 数据摄取:提供数据连接器,可摄取 API、PDF、文档、SQL 等现有数据源和格式。
- 数据结构化:通过索引和图等方式对数据进行结构化,便于与 LLM 结合使用。
- 检索/查询:提供高级检索/查询接口,输入 LLM 提示,返回检索到的上下文和知识增强输出。
- 集成能力:可与 LangChain、Flask、Docker、ChatGPT 等外部应用框架集成。
- 构建智能体:为构建智能体提供框架,智能体可使用 RAG 管道等工具完成任务。
- 支持工作流:支持多步工作流,结合智能体、数据连接器和其他工具完成复杂任务。
技术原理
LlamaIndex 基于大语言模型(LLM)技术,通过数据连接器将不同格式和来源的数据进行摄取,然后对数据进行结构化处理,构建索引和图。在检索查询时,根据输入的提示,从结构化数据中检索相关上下文,并结合 LLM 生成知识增强的输出。同时,它还支持通过工作流将各个模块组合,实现更复杂的任务处理。应用场景
- 问答系统:基于检索增强生成(RAG)技术,回答关于特定数据的问题。
- 聊天机器人:处理客户常见问题解答和订单取消等任务。
- 文档理解与数据提取:从复杂文档中提取信息和合成见解。
- 自主智能体:执行研究和采取行动,如自动填充结构化值。
- 多模态应用:结合文本、图像等多种数据类型。
- 模型微调:在特定数据上微调模型以提高性能。
- run-llama/llamaindex: LlamaIndex is a data framework for your LLM applications
- LlamaIndex, Data Framework for LLM Applications
- LlamaIndex - LlamaIndex
- run-llama/llamaindex: LlamaIndex is a data framework for your LLM applications
------------------------------------------------------------
3.4.字节Eino大模型框架
简介
Eino 是基于 Golang 的大模型应用综合开发框架,于 2025 年 3 月 4 日在 CloudWeGo 正式开源。它覆盖开发全流程,具有内核稳定、扩展性强、高可靠易维护等特点,背靠字节跳动核心业务线实践经验,已成为字节跳动内部大模型应用的首选全代码开发框架。核心功能
- 组件丰富:封装常见构建块为组件抽象,有多种组件实现,如 Chat Model、Tool 等,可嵌套实现复杂业务逻辑。
- 编排强大:通过图编排实现数据在多个组件间的定向流动,处理类型检查、流处理、并发管理等。
- 流处理完善:自动处理流的拼接、合并、复制等,支持多种流处理范式。
- 扩展性高:支持组件横向扩展、自定义 Lambda 类型、特定编排范式纵向扩展及注入回调逻辑。
- 工具配套:提供链路追踪、调试、可视化等工具,内置 tracing callback 并与相关平台集成。
技术原理
- 组件定义:明确各组件的输入输出类型、运行时 option 及流处理范式。
- 编排机制:以有向图为基础,提供 Chain、Graph、Workflow 等编排范式,编译时进行类型检查,封装通用问题解决方案。
- 强类型语言:基于 Golang 的强类型特性,提前暴露类型匹配问题,提高代码可维护性。
- 扩展性设计:组件可横向扩展功能,支持自定义 Lambda 类型,持续纵向扩展编排范式,支持注入横切面功能。
应用场景
- 大模型应用开发:帮助开发者快速实现大模型应用,如 ReAct Agent、Host Multi - Agent 等。
- 业务系统接入大模型:像字节跳动的豆包、抖音、扣子等业务线,为其接入大模型能力。
- 大语言模型应用开发框架 —— Eino 正式开源! | CloudWeGo
- cloudwego/eino-ext
- cloudwego/eino
------------------------------------------------------------